IBM, Yapay Zekanın Güven Sorununu ve Artan Halüsinasyon Risklerini Vurguluyor

IBM araştırmacıları, büyük dil modellerinin giderek daha fazla insan benzeri kusurlar sergilediğini—gerçeklerle uyuşmasa bile otoriter bir şekilde konuştuğunu—belirtiyor. Bu "halüsinasyonlar", finans ve yasal belgeler gibi kesinliğin kritik olduğu alanlarda ciddi riskler oluşturuyor. Avrupa Yayın Birliği'nin bir çalışması, AI tarafından üretilen yanıtların yaklaşık %50'sinin yanlış veya doğrulanmamış kaynaklar içerdiğini ortaya koydu.

IBM'den Pin-Yu Chen, AI'nın gerçek bir anlayışa sahip olmadığını, bunun yerine istatistiksel kelime tahminine dayandığını belirtiyor. Modeller büyüdükçe, yüzeydeki akıcılığa rağmen belirsizlikleri artıyor. IBM, yüksek riskli uygulamalar için sınırlamaları ortaya çıkarmak amacıyla sistemleri kasıtlı olarak hataları tetikleyerek test ediyor. Chen, "Üretken AI, yaratıcı alanlarda mükemmeldir," diyor, "aktüeryal kesinlik gerektiren senaryolarda değil."